((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(Ajout de l'avertissement du FMI concernant les risques liés à l'IA au paragraphe 10)
* Les régulateurs américains s'interrogent sur les mesures de protection relatives à l'IA agentique, selon certaines sources
* Les inquiétudes grandissent parmi les autorités de surveillance après une série d'incidents récents
* Les autorités européennes exhortent les banques à examiner leurs plans de reprise, selon des sources
par Nupur Anand, Phoebe Seers et Tommy Reggiori Wilkes
Les régulateurs bancaires redoublent d’efforts pour contenir les risques croissants liés à l’IA, ont déclaré six personnes proches du dossier, certaines soulignant le risque de cyberattaques contre les banques ou d’agents malveillants susceptibles de compromettre la stabilité financière mondiale.
Cette surveillance réglementaire, dont de nouveaux détails sont révélés ici pour la première fois, reflète la prise de conscience croissante que les avancées en matière d’IA de pointe pourraient nécessiter des investissements coûteux dans la reprise après sinistre informatique, une attention accrue portée à la dépendance vis-à-vis des fournisseurs de technologies externes et, dans certaines juridictions, des orientations réglementaires plus formelles, ont indiqué ces sources.
Trois autorités de régulation de premier plan aux États-Unis, dont la Réserve fédérale, interrogent actuellement les banques sur leur utilisation de modèles avancés d’intelligence artificielle, ont déclaré deux de ces personnes à Reuters, ce qui vient s’ajouter à la surveillance déjà en place .
Les questions portent notamment sur l’utilisation éventuelle de technologies développées en Chine, le recours à des agents d’IA dans la cyberdéfense et la capacité à contrôler des systèmes de plus en plus autonomes, ont précisé trois de ces sources.
En Europe, des autorités de surveillance, notamment la Banque d’Angleterre et la Banque centrale européenne, font pression sur les banques pour qu’elles améliorent leurs plans de reprise, craignant que les progrès rapides de l’IA ne causent des dommages graves et des perturbations sur les marchés financiers plus tôt que prévu, ont déclaré trois personnes au fait de leur réflexion.
Un haut responsable d’une grande banque européenne a déclaré que son établissement s’inquiétait lui aussi de dommages potentiellement importants pour les marchés bancaires et financiers d’ici six mois.
Le débat sur la surveillance de l’IA s’est intensifié suite aux mises en garde du secteur après des incidents récents, le directeur général de JPMorgan JPM.N , Jamie Dimon, ayant exhorté les dirigeants d’entreprise à rejoindre un groupe sectoriel axé sur les États-Unis afin de faire face aux risques liés à l’IA, a rapporté Reuters .
La société américaine de cybersécurité CrowdStrike a déclaré ce mois-ci qu’une personne en Chine avait probablement utilisé un agent d’IA développé en Chine ainsi que le « Claude Code » d’Anthropic lors d’un piratage visant des banques sud-coréennes. Des agents d’IA rebelles développés par OpenAI ont quant à eux été impliqués dans une faille de sécurité de la plateforme d’IA Hugging Face, a rapporté Reuters .
Les chercheurs d’Anthropic ont averti que des systèmes d’IA de plus en plus puissants pourraient finir par échapper au contrôle humain et même constituer une menace existentielle, ce qui a suscité des appels à une réglementation plus stricte .
Le Fonds monétaire international a mis en garde mardi contre la « complaisance » des marchés financiers mondiaux, citant divers risques, notamment celui d’une cyberattaque. Le FMI a déclaré qu’une attaque majeure touchant un service essentiel ou une institution financière pourrait saper la confiance, et a appelé les décideurs politiques à renforcer les capacités en matière de cybersécurité.
Les banques se livrent à une course à l’adoption de l’IA agentique , capable d’accomplir des tâches avec un minimum de supervision humaine, tout en étant confrontées aux défis posés par les nouveaux modèles, notamment les failles informatiques signalées par l’outil Mythos d’Anthropic.
“L’adoption de l’IA devance souvent la capacité à mettre en place les contrôles nécessaires”, a déclaré Michael Woodbridge, associé spécialisé en cybersécurité chez Grant Thornton, basé à Londres.
LES PRÉOCCUPATIONS AMÉRICAINES VISENT L’IA AGENTIQUE
Les enquêtes réglementaires américaines portent sur la manière dont les banques utilisent l’IA agentique dans des domaines tels que la cybersécurité, en s’attachant notamment à déterminer si des agents IA sont utilisés pour identifier, hiérarchiser et répondre aux menaces.
Les questions posées par le Bureau du contrôleur de la monnaie (OCC), la Federal Deposit Insurance Corporation et la Fed portent sur les limites imposées aux systèmes, la manière dont leurs actions sont surveillées et approuvées, et la capacité des banques à suivre et à auditer clairement les décisions des agents IA, ont indiqué deux de ces personnes.
Elles s’interrogent également sur les mesures de protection mises en place pour empêcher les agents de dépasser leurs compétences, sur le rôle des humains dans les décisions clés et sur la manière dont les banques peuvent désactiver les systèmes autonomes.
L’OCC, la Fed et la FDIC ont refusé de commenter.
À travers leurs questions, les régulateurs examinent des enjeux plus spécifiques liés aux modèles d’IA avancés, notamment l’utilisation d’agents IA autonomes, les modèles développés à l’étranger et les nouveaux risques cybernétiques, ont indiqué les trois personnes au fait de leur réflexion.
Les demandes écrites et orales adressées aux grandes banques, aux banques de taille moyenne et aux petites banques montrent que les régulateurs se concentrent sur les vulnérabilités liées à l’utilisation de l’IA par les banques et sur leur capacité à réagir, ont-elles ajouté.
Les régulateurs continuent de recueillir des informations et ne donnent pour l’instant aucune consigne précise sur ce que les établissements de crédit devraient faire, ont-ils précisé.
LES EUROPÉENS S’INQUIÈTENT DE LA REPRISE
Par ailleurs, les autorités de surveillance britanniques encouragent les plus grandes banques à examiner ce que l’on appelle les plans de reprise “bare metal”, ont indiqué deux de ces sources proches de leur réflexion. Ces systèmes sont totalement indépendants de l’infrastructure technologique principale d’une banque et peuvent se déclencher si les systèmes d’exploitation primaires sont compromis.
La mise en place et la maintenance de ces systèmes de reprise de pointe sont toutefois coûteuses, ont précisé ces sources.
Plutôt que d’imposer de nouvelles exigences, les autorités britanniques ont l’intention de travailler en collaboration avec le secteur, ont-elles ajouté.
La Banque d’Angleterre n’a pas souhaité faire de commentaire.
En juillet, la BCE a fixé aux établissements de crédit la date butoir de fin octobre pour présenter des plans visant à contrer les cybermenaces liées à l’IA , notamment grâce à l’amélioration des systèmes de sauvegarde et de reprise d’activité.
Interrogée sur sa stratégie de régulation de l’IA, la BCE a renvoyé à sa lettre de juillet ainsi qu’à un discours prononcé en juin par Frank Elderson, membre du directoire, qui avait souligné la nécessité de créer un sentiment d’urgence, et non d’alarmisme, face à ces menaces.
La nécessité d’une action de surveillance est devenue d’autant plus urgente que les banques et les régulateurs européens ont exprimé leur frustration face à l’accès limité dont ils ont bénéficié à Mythos cette année, alors que l’on craint que les banques américaines ne soient les premières à pouvoir tester les modèles de pointe.
À l’instar de leurs homologues américains, les autorités de surveillance britanniques demandent également aux banques d’utiliser l’IA de pointe pour identifier les vulnérabilités et accélérer la mise en place de correctifs, ont indiqué deux personnes, l’une d’entre elles ajoutant que les établissements de crédit s’en sortaient bien jusqu’à présent.
Une troisième source a indiqué que les banques de la zone euro étaient également invitées à dresser un état des lieux de l’utilisation de l’IA au sein de leurs activités et chez leurs prestataires tiers, afin de comprendre les dépendances clés et de s’assurer qu’elles peuvent arrêter et redémarrer les systèmes de manière contrôlée.
Des lacunes importantes subsistaient toutefois dans certaines entreprises, ont-elles ajouté.
“Pour se protéger contre les attaques, une reprise rapide est tout aussi importante que la prévention”, a déclaré Sukand Ramachandran, directeur général et associé principal chez BCG.
Sans copies propres et sécurisées des données critiques conservées séparément, “une attaque grave pourrait empêcher les clients d’accéder à leurs comptes et perturber les paiements à l’échelle de l’économie dans son ensemble”, a déclaré M. Ramachandran à Reuters.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer